система функций {(φ_n (x)}, n = 1, 2,..., ортогональных с весом ρ (х) на отрезке [а, b], т. е. таких, что

Примеры. Тригонометрическая система 1, cos nx, sin nx; n = 1, 2,..., - О. с. ф. с весом 1 на отрезке [-π, π]. Бесселя функции , где n = 1, 2,..., - положительные нули J_ν(x), образуют для каждого ν > - ¹/₂ О. с. ф. с весом х на отрезке [0, l ].

Если каждая функция φ (х) из О. с. ф. такова, что (условие нормированности), то такая система функций называется нормированной. Любую О. с. ф. можно нормировать, умножив φ (х) на число - нормирующий множитель.

Систематическое изучение О. с. ф. было начато в связи с методом Фурье решения краевых задач уравнений математической физики. Этот метод приводит, например, к разысканию решений Штурма - Лиувилля задачи (См. Штурма - Лиувилля задача) для уравнения [ρ(х) у' ]' + q (x) y = λу, удовлетворяющих граничным условиям у (а) + hy'(a) = 0, y (b) + Hy' (b) = 0, где h и Н - постоянные. Эти решения - т. н. собственные функции задачи - образуют О. с. ф. с весом ρ (х) на отрезке [a, b ].

Чрезвычайно важный класс О. с. ф. - Ортогональные многочлены - был открыт П. Л. Чебышевым в его исследованиях по интерполированию способом наименьших квадратов и проблеме моментов. В 20 в. исследования по О. с. ф. проводятся в основном на базе теории интеграла и меры Лебега. Это способствовало выделению этих исследований в самостоятельный раздел математики. Одна из основных задач теории О. с. ф.- задача о разложении функции f (x) в ряд вида , где {φ_п (х)} - О. с. ф. Если положить формально , где {φ_п (х)} - нормированная О. с. ф., и допустить возможность почленного интегрирования, то, умножая этот ряд на φ_п (х) ρ(х) и интегрируя от а до b, получим:

(*)

Коэффициенты С_п , называемые коэффициентами Фурье функции относительно системы {φ_n (x)}, обладают следующим экстремальным свойством: линейная форма наилучшим образом приближает в среднем эту функцию. Иными словами, средняя квадратичная ошибка с весом ρ(х):

(*)

имеет наименьшее значение по сравнению с ошибками, даваемыми при том же n другими линейными выражениями вида . Отсюда, в частности, получается т. н. неравенство Бесселя

Ряд ∑^∞_n=1C_nφ_n(x) с коэффициентами С_п , вычисленными по формуле (*), называется рядом Фурье функции f (x) по нормированной О. с. ф. {φ_n (x)}. Для приложений первостепенную важность имеет вопрос, определяется ли однозначно функция f (x) своими коэффициентами Фурье. О. с. ф., для которых это имеет место, называется полными, или замкнутыми. Условия замкнутости О. с. ф. могут быть даны в нескольких эквивалентных формах. 1) Любая непрерывная функция f (x) может быть с любой степенью точности приближена в среднем линейными комбинациями функций φ_k (x), то есть в этом случае говорят, что ряд ∑^∞_n=1C_nφ_n(x) сходится в среднем к функции f (x)]. 2) Для всякой функции f (x), квадрат которой интегрируем относительно веса ρ(х), выполняется условие замкнутости Ляпунова - Стеклова:

3) Не существует отличной от нуля функции с интегрируемым на отрезке [a, b ] квадратом, ортогональной ко всем функциям φ_n (x), n = 1, 2,....

Если рассматривать функции с интегрируемым квадратом как элементы гильбертова пространства (См. Гильбертово пространство), то нормированные О. с. ф. будут системами координатных ортов этого пространства, а разложение в ряд по нормированным О. с. ф. - разложением вектора по ортам. При этом подходе многие понятия теории нормированных О. с. ф. приобретают наглядный геометрический смысл. Например, формула (*) означает, что проекция вектора на орт равна скалярному произведению вектора и орта; равенство Ляпунова - Стеклова может быть истолковано как теорема Пифагора для бесконечномерного пространства: квадрат длины вектора равен сумме квадратов его проекций на оси координат; замкнутость О. с. ф. означает, что наименьшее замкнутое подпространство, содержащее все векторы этой системы, совпадает со всем пространством и т.д.

Лит.: Толстов Г. П., Ряды Фурье, 2 изд., М., 1960; Натансон И. П., Конструктивная теория функций, М. - Л., 1949; его же, Теория функций вещественной переменной, 2 изд., М., 1957; Джексон Д., Ряды Фурье и ортогональные полиномы, пер. с англ., М., 1948; Качмаж С., Штейнгауз Г., Теория ортогональных рядов, пер. с нем., М., 1958.